对科幻级的换脸技术风险,规范准备好了吗
换脸技术被滥用的风险不再局限于虚拟空间里,已经来到了我们的肉身周围。
”
文丨 李勤余
日前,有多地警方提醒,以硅胶人脸面具伪装成新面孔实施犯罪,正成为一些不法分子作案的新手法。在电商平台上,一些商家推出明星面容仿真面罩,声称可以高度还原明星的面部特征,效果逼真,还有商家宣称可提供面具、头套“私人定制”服务,核心卖点即“超逼真”“仿真定制”。
值得一提的是,这些人脸面具并非简单的装饰品,而是人脸识别信息的物质化载体,不仅具有极高的仿真度,还能在一定程度上模仿自然人的生物特征,如识别性、独特性和唯一性。换言之,硅胶人脸面具的售制乱象背后,事实上是换脸技术的变异风险——对人脸的深度合成,既可能是网络的、数码的,也可能是实体的。有网友评论,难辨真假的人脸面具是科幻片中才有的场景,如今正在变成现实。
据报道,在人脸面具的商品评论区,有不少关于“硅胶面具能不能以假乱真”“能不能通过人脸识别的活体检测”等咨询。有买家回复称,“定制的硅胶面具与真人有九成以上相似度,上下班打卡没有问题”。
可见,此类硅胶人脸面具有可能被用来逃避监控识别,从而增加违法者身份确认的难度,也有可能被用于绕过人脸识别技术,冒用他人身份进行盗窃或其他违法行为。比如,最近就有一男子戴上硅胶人脸面具,伪装成老人模样潜入4户居民家中,共偷盗十多万元财物。
因此,市场监管部门以及相关平台应该对违规售卖人脸面具的商家进行警告、罚款、责令停业整顿,同时强化在生产、销售和使用各个环节的监管机制,从而在保障合法需求、合理使用的同时,减少和降低人脸面具被用于侵权违法行为的风险。
人脸面具乱象更提醒我们,换脸技术被滥用的风险不再局限于虚拟空间里,相关技术风险已经来到了我们的肉身周围。换脸技术背后的人工智能开发是一个高速成长的领域,随着时间的推移,它正日渐渗入普通人的日常,衍生出更多变种。如何完善、健全相应的规则,明确信息保护红线,加强对技术服务的规范引导,已成当务之急。
2023年1月开始施行的《互联网信息服务深度合成管理规定》特别提到,“提供深度合成服务,应当遵守法律法规,尊重社会公德和伦理道德”。技术的进步本身是好事,就像硅胶人脸面具完全可以用于合法娱乐、艺术表现、教育训练等领域,造福社会和特定人群,但是,相关法律和伦理规范、技术规范也必须同步出台,缩短换脸技术从野蛮生长到规范发展的时间差。
在人工智能时代,人们当然应该保持警惕,不要随意泄露个人信息。但也要看到,商家制作一张人脸面具,只需要用户提供一张照片,或通过3D扫描技术获取人脸图像和360度人脸照片。如此防不胜防,正说明要保护好信息和财产安全,单靠个人的力量是远远不够的,需要监管部门、网络平台、相关企业多方形成合力,引导科技向上向善。
排版|甘琼芳
澎湃评论独家稿件,未经授权不得转载
推荐阅读
点击下方名片,关注我们